Чтобы создать wss нужно указать свойство server.
var https = require('https');
var fs = require('fs');
var WebSocketServer = require('ws').Server;
var app = https.createServer({
cert: fs.readFileSync('/path/to/certificate'),
key: fs.readFileSync('/path/to/key')
}, function() {}).listen( 443 );
// secureSocketServer - wss server
var secureSocketServer = new WebSocketServer({ server: app });
secureSocketServer.on('connection', function( connection ) {
// connection - wss соединение
});